Allahyarham TG mendapat pendidikan awal di sekolah Melayu (sekarang Sekolah Kebangsaan) Tebing Tinggi, Jalan Selama Perak sehingga darjah enam (6) sebelum melanjutkan pelajaran ke darjah tujuh (7) di Parit Buntar. Tidak lama kemudian Allahyarham TG telah menamatkan pengajian aliran Melayu untuk bertukar ke aliran pegajian agama di Madrasah (Arab: مدرسة) Ahmadiah al-Ijtima'ih (اﺣﻤﺪﻳﻪ اﻟإﺟﺘﻤﺎﻋﻴﻪ), Padang Lalang atau lebih dikenali dengan Sekolah pondok Padang Lalang Bukit Mertajam, Pulau Pinang setelah terlibat di dalam kemalangan di sekolah sehingga menyebabkan patah kaki. Keputusan untuk mengubah ke aliran agama dilakukan oleh ayahanda Haji Asmawi bin Haji Ismail kerana memikirkan masa depan Allahyarham TG yang lebih sempurna jika diberi pengetahuan di dalam bidang agama.

Selama lebih 10 tahun menimba pelbagai ilmu agama dalam dari ilmu-ilmu asas Tauhid (Arab: توحيد), Fiqah (Arab: ﻓﻘﻪ), Tasawuf (Arab: ﺗﺼﻮف), Hadis (Arab: الحديث hadīth mufrad, ahādīth "أحاديث" jamak); , Tafsir, Tajwid (Arab: تجويد) dan Sejarah juga berkemahiran tinggi dalam Bahasa Arab nahu (ﻧﺤﻮ) dan saraf (ﺻﺮف) dan beberapa ilmu alat yang lain. Semasa pengajian di Madrasah Padang Lalang, Allahyarham TG amat di hormati dalam kalangan para pelajar diatas kelebihan dan kebolehannya sehingga dilantik menjadi “kepala matala’ah” yang merupakan jawatan yang bukan mudah untuk diperolehi dalam sistem pengajian pondok pada ketika itu.